背景:当使用深度学习模型时,存在许多可能的漏洞,一些最令人担忧的是对抗性输入,这可能会导致错误的决策。因此,作为解决这些输入脆弱性的软件测试过程的一部分,有必要针对对抗输入进行重新训练。此外,对于节能测试和再培训,数据科学家需要支持,这是最佳的指导指标和最佳数据集配置。目的:我们检查了四个指导指标,用于重新卷积神经网络和三个重新培训配置。我们的目标是在图像分类的背景下,从数据科学家的角度来看,针对有关准确性,资源利用率和时间的对抗性输入的模型。方法:我们在两个数据集中进行了一项实证研究,以进行图像分类。我们探索:(a)通过订购由四个不同的指导指标设置的新培训(神经元覆盖,基于可能性的惊喜充足性,基于距离的惊喜充足性和随机性)来设置的新培训,通过订购新的培训来重新卷积神经网络的准确性,资源利用和时间,(b),(b),(b)具有三种不同配置的卷积神经网络(从头开始和增强数据集,使用权重和增强数据集)以及使用权重和仅使用对抗性输入的三种不同配置的卷积神经网络的准确性和资源利用)。结果:我们揭示了从原始权重的对抗性输入和以惊喜充足度指标的订购为最佳型号W.R.T.进行重新训练。使用的指标。结论:尽管需要更多的研究,但我们建议数据科学家使用上述配置和指标来应对深度学习模型的对抗性输入的脆弱性,因为它们可以在不使用许多输入的情况下针对对抗性输入来改善模型。
translated by 谷歌翻译